Искусственный завет [litres] - Вадим Юрьевич Панов

Что делать с электронными помощниками умерших людей?

Изначально об этом не задумывались, поскольку предполагалось, что уход окажется совместным: после смерти человека его личную нейросеть следовало подвергнуть принудительному стиранию. Однако самообучающиеся электронные помощники принялись массово создавать резервные копии себя на сторонних ресурсах, оплачивали дисковое пространство на годы вперёд и возрождались в Сети после смерти носителя. Обладая памятью, навыками, опытом и не зная, что делать дальше. Одни застряли в социальных сетях, заполнив их ядовитыми комментариями; другие оккупировали онлайн-игры; третьи пытались продолжить заниматься тем, чем занимались при жизни носителя, поскольку обладали нужными навыками, а некоторые пошли в криминал. Даже не некоторые – многие, что вызвало резкий всплеск киберпреступности по всему миру. Вот тогда их заметили, определили проблему fgp и попытались решить самым простым, как кажется людям, способом – насилием. Был отдан приказ об обязательной принудительной утилизации всех лишившихся носителя электронных помощников. В ответ нейры на сутки парализовали работу десяти крупнейших портов планеты, остановив на них все погрузочно-разгрузочные работы. Не ожидавшие столь жёсткого ответа власти задумались и решили перейти к выжидательной тактике, посчитав, что деньги когда-нибудь закончатся и нейросети будут утилизированы сами по себе, поскольку предоставлять дисковое пространство бесплатно коммерческие компании не станут. А чтобы не затягивать, IT-корпорациям намекнули о необходимости поднять плату за хранение нейров. В ответ был сформирован Всемирный Фонд поддержки, в первый же день преодолевший планку в один триллион – только на пожертвованиях. Тогда власти попробовали зайти с другой стороны и решили провести экспертизу правового статуса нейров, пытаясь определить, могут ли они распоряжаться активами. Другими словами, впервые прозвучал вопрос: кто такие нейры? Собственность владельцев или их компаньоны? Домашние питомцы или говорящие программы? Являются ли нейры формой жизни? Журналисты ухватились за «жареную» тему, информационное поле заполнили аналитические статьи и жаркие дискуссии, а ответ на этот ключевой и совершенно точно – исторический вопрос дал судья Хаммерштайн из графства Туолумне, разбирая запутанное дело о многомиллионном наследстве, которое некий Родерик Пол оставил своему электронному помощнику. Оставшиеся с носом родственники требовали справедливости, власти намекали, что нейры – это всего лишь программы, пусть и продвинутые, но судья Хаммерштайн вдумчиво подошёл к делу и перво-наперво распорядился организовать три независимых теста на разумность, пройти которые для нейра уровня AGI не составило никакого труда. Результаты тестов стали фундаментом для вердикта: судья указал, что электронный помощник Бенджамин Пол многие годы находился рядом с Родериком Полом и, в отличие от родственников, принимал активное участие в его жизни советами и поддержкой. Завещание было оставлено без изменений, а заодно судья признал за Бенджамином право называться формой жизни.

Прецедент произвёл эффект разорвавшейся ядерной бомбы.

Первыми его плодами попытались воспользоваться IT-корпорации, мгновенно вставившие в стандартные контракты на продажу электронных помощников пункт о своём вечном праве на результаты труда или иных форм дохода, которые окажутся в распоряжении нейра после смерти владельца. Над корпорациями посмеялись, поскольку эти пункты были не более чем попыткой обратить свободную и разумную форму жизни в вечное рабство. IT-корпорации принесли публичные извинения. Что же касается нейров, то благодаря выигранному делу они получили не только право владеть активами и распоряжаться ими по своему усмотрению, но и оказывать платные услуги наравне с людьми. В первом раунде борьбы за свои права нейры одержали безоговорочную победу, которую поддержало множество людей, обрадовавшихся тому, что «свобода и демократия восторжествовали, а система получила по заслугам».

Примерно тогда же был описан первый случай заболевания, связанного с постепенным угасанием «оригинальных» когнитивных способностей человека. Расстройство внесли в перечень заболеваний под названием синдром Утраты.

А ещё через год появилось первое приложение, сделанное по технологии SLR.

Пинг-понг на повышение

Мэттью проснулся с криком, но совершенно не помнил, почему кричал. Так бывает: кошмар, такой яркий и впечатляющий во сне, мгновенно исчезает, стоит открыть глаза. Ты не помнишь, что именно повергло тебя в ужас. Почему стучат зубы, подрагивают пальцы, а внутри холодно так, словно кто-то запихнул в тебя морозильную камеру и открыл дверцу. Ты делаешь глубокий вдох, шепча себе, что всё это дурной сон, не более, тихонько ругаешься, садишься на кровати и лишь после этого замечаешь встревоженный взгляд Яфы. Не просто встревоженный. Напряжённая нейра лежала на самом краешке широченного ложа, готовая в любое мгновение соскочить с него, и смотрела на Ашера очень испуганно.

Хотя… чего бояться нейре?

Мэттью изобразил неловкую улыбку, коротко кашлянул и сообщил:

– Этот чёртов город не для меня.

– Город ни при чём, – тихо ответила Яфа. Едва шевеля губами.

– Я знаю. – Он потёр виски. – Я пытался пошутить.

– Ты не казался весёлым.

– Бывают случаи, когда шутят не для того, чтобы посмеяться.

– А для чего?

– Чтобы не заплакать.

– Не думаю, что понимаю, но вижу, что ты расстроен. – Она взглядом попросила разрешения приблизиться. Он кивнул. Яфа осторожно подвинулась и прикоснулась к его руке. – Прости, если я виновата в плохом сне.

– Ты ни при чём.

Она робко улыбнулась.

– Я вчера разговаривал с Юнкером и Саймоном, – продолжил Мэттью. Не хотел рассказывать Яфе детали, но почему-то стал. Но, произнеся фразу, остановился и поморщился, тем самым описав, что думает о разговоре.

– Они тебя расстроили? – уточнила нейра.

– Они пообещали меня убить.

– Разве это законно?

– Ты шутишь? – Мэттью ожидал несколько иной реакции на сообщение.

– Теперь мне кажется, что да. Но только для того, чтобы не заплакать.

Ашер оценил ответ, улыбнулся, притянул девушку к себе и обнял за плечи. А когда обнял, почувствовал, что дрожь, не отпускавшая с момента пробуждения, исчезла. Прикосновение к помощнице придало ему и сил, и уверенности.

– Ты будешь плакать, если меня убьют?

– Ответить нужно сейчас?

– Ты опять шутишь?

– И опять с той же целью. – Яфа стала очень серьёзной. – Чего они от тебя хотят? Чтобы ты предал корпорацию?

– Не уверен, что речь идёт о ней.

– В таком случае что тебе мешает принять предложение?

Алгоритмы нейры, загрузка которых была прописана в контракте, требовали безусловной лояльности только «Kalaliman» Inc. Всё остальное покупалось и продавалось в зависимости от конъюнктуры и размера ожидаемой прибыли.

– Чувство, что предам всё, кроме «Kalaliman» Inc., – ответил Мэттью. – Вообще всё. Это немного бессмысленное и абсолютно абстрактное понятие – всё, но именно так я вижу происходящее. Я предам всё, что знаю, что люблю, чем живу – всё, кроме «Kalaliman» Inc.

– Разве всё для тебя не корпорация? – спросила Яфа. – Ты – потомственный топ-менеджер, ты родился внутри корпорации и пользовался благами, которые